일반뉴스 클라우드플레어, LLM 공격 대응하는 ‘AI용 방화벽’ 출시
클라우드플레어(Cloudflare)는 5일 거대언어모델(LLM)을 상대로 한 남용과 공격을 식별하는 새로운 보호 레이어(layer)인 'AI용 방화벽'을 선보인다고 밝혔다. 클라우드플레어는 글로벌 네트워크를 기반으로 AI용 방화벽을 통해 고객이 LLM 내에 있는 기능, 주요 데이터, 영업 비밀을 노리는 공격에 대응할 수 있도록 지원한다는 방침이다. 최근 실시된 한 조사에 따르면 최고 경영진 4명 중 1명만이 자신의 조직이 AI로 인한 위험에 대비하고 있다고 확신하는 것으로 나타났다. LLM을 보호하는데 있어 사용자 상호작용을 제한하는 것은 거의 불가능하다. 또한 LLM은 동일한 입력 값이 주어져도 다양한 결과물을 생성할 수 있는 등 사전 설계에 의해 미리 결정되지 않는다는 점으로 인해 처음부터 적절한 보안 시스템을 구축하는 것이 어렵다. 이 때문에 LLM은 위협 행위자에게 무방비 상태가 되어 조직이 모델 조작, 공격 및 남용에 취약한 상태로 노출되는 결과를 야기한다. 매튜 프린스 클라우드플레어 CEO 겸 공동 창업자는 "클라우드플레어는 자사 AI용 방화벽을 통해 AI 환경의 보안 구축을 처음부터 돕고 있다"며 "AI 모델을 위한 최초의 보호막 중 하나를 제공